Frederik lahir pada 18 Mac1936 di kawasan luar bandar Mayfair di Johannesburg,[1] beliau anak kedua dalam sebuah keluarga penutur bahasa Afrikaans.[1] Keturunan nenek moyangnya yang sebahagiannya Huguenot (berdasarkan nama keluarganya yang bermaksud "paderi" dalam bahasa Perancis) dicatat tiba berhijrah ke selatan benua Afrika pada tahun 1866,[2] ibunya pula berketurunan orang Austria.[3][4]

Keluarganya memainkan peranan penting dalam masyarakat Afrikaner;[5] datuknya seorang paderi yang pernah terlibat dalam Perang Boer Pertama[2] serta pernah bertanding sebagai calon dalam Parti Kebangsaan sebanyak dua kali.[6] Bapa saudaranya, J. G. Strijdom, Perdana Menteri Afrika Selatan antara 1954 dan 1958.[7] Ayahnya, Jan de Klerk, seorang senator serta setiausaha dalam cawangan Transvaal Parti Kebangsaan selama 15 tahun.[8] Dalam persekitaran inilah Frederik didedahkan kepada ehwal politik sejak kecil.[9]

Selepas menamatkan pendidikan tingginya di Krugersdorp, De Klerk mendapat ijazah sarjana mudanya dalam bidang perniagaan dan kemudiannya dalam bidang undang-undang pada tahun 1958 dari Universiti Potchefstroom . Pada tahun 1969 dia berkahwin dengan Marike Willemse, dan kemudiannya dianugerahi dengan tiga cahaya mata, dua anak lelaki dan dan seorang anak perempuan.